【智能与法】崔俊杰：自动驾驶汽车准入制度: 正当性、要求及策略
The following article is from 公法与政策研究 Author 崔俊杰
B D A I L C
欢 迎 关 注
自动驾驶汽车准入制度旨在为自动驾驶汽车市场化提供合法性支撑、预防和应对技术的不确定性挑战，并寻求道德伦理的正当性。自动驾驶汽车技术所衍生出的新问题倒逼准入制度作出回应。一是要回应人机共生之后的法权关系改变；二是要回应车辆事故中的民事责任分配；三是要回应创新驱动下的产业发展诉求。完善自动驾驶汽车准入制度要在充分了解自动驾驶汽车的基础上，用一套合理而透明的标准来权衡和量化自动驾驶汽车的能力。为此，有关准入标准本身需要进行修构；标准的取得过程也必须融合民主和理性的双重价值；为了避免过度规制制约产业发展，准入制度还要灵活运用不同的工具，并可以对缺乏适应性的强制性准入标准进行有限豁免。
Javid Tabatabaei
文 / 首都师范大学政法学院讲师 崔俊杰
自动驾驶汽车是智能互联网技术运用的重要载体[1]，我国《新一代人工智能发展规划》将发展自主无人系统的智能技术作为关键共性技术来抓，指出要重点突破汽车自动驾驶等智能技术，支撑无人系统应用和产业发展。为此，政府职能的有效发挥应密切关注正在发生的变化，以期制定前瞻性策略并促成最好的规制结果。市场准入是最为常用的规制手段之一，传统准入制度在自动驾驶规制方面将具备怎样的价值，又将回应怎样的需求？本文将从法学的视角做出尝试性的解答。
（一）为自动驾驶汽车市场化提供合法性支撑
1. 市场机制不能减轻自动驾驶技术风险
市场失灵是划分政府和市场权责的边界。政府监管应当是一种旨在矫正市场失灵和促进竞争的制度安排。市场失灵通常可以从信息不充分、外部性问题以及产业需求三个方面来展开论证。
其一、信息不充分问题。信息问题是规制的一般性正当理由，但在智能互联时代，“数字鸿沟”将冥次方地加剧信息赤字难题。[2]中国信息通信研究院的报告表明，我国各产业、行会和地区之间的数字经济指数差异较大，其深层次原因是各阶层、群体和地区之间存在巨大的数字鸿沟。[3]数字鸿沟的存在，使得在自动驾驶汽车市场化进程中，交易双方及规制机构提供和处理有关自动驾驶汽车特定水平及质量信息的边际成本将严重高出于其所带来的边际收益。诚然，跨越“数字鸿沟”应当是智能互联时代服务型政府的职责，但在“数字鸿沟”存在并将长期存在的客观现实下，仅仅依靠市场机制不能自动减轻因信息不充分而引发的市场失灵问题。
其二、负外部性（negative externality）问题。自动驾驶汽车的市场化可能存在明显的负外部性问题：一是可能发生技术失灵，导致严重交通事故；二是可能过度收集处理用户信息，引发对社会公众隐私权的普遍侵犯；三是可能存在道德风险问题，直面所谓“电车难题”（Trolley Problem）；[4]四是可能发生异化风险，出现自动驾驶系统的滥用甚至犯罪。诚然，合同、侵权等私法上的装置都有能力将外部性问题内部化，但他们的作用很有可能止步于难以估量的交易成本。[5]特别是考虑到现有法律体系下的侵权责任、消费者权益保护、保险赔付等传统纠错和救济机制，均或多或少地无法适用于自动驾驶汽车的情景之下，上述通过私法装置解决负外部性问题的进路就显得捉襟见肘。[6]
其三、产业需求问题。自法律制度建立以来，安全问题一直是最为传统的主题。当前自动驾驶汽车市场化的最大障碍也正是社会公众对其安全性的担忧。“很多人坚持认为，无人驾驶汽车只有达到100%完美的可靠性才能合法，那意味着没有发生任何碰撞、事故或失误”，[7]然而，“现代社会意义上的风险，是建立在对损害可能规模和发生概率等理性计算的基础上，是希望在控制风险的基础上利用其提供的机会”，[8]如果需要自动驾驶汽车提供十全十美的可靠性，则自动驾驶技术的市场化将永无来日。问题的关键在于，“有关风险的决策实际上是一个社会选择何种生活方式的决策”，“风险并不能简单地被当作科学上的‘事实’，而是一系列价值判断”[9]——在社会心理学的意义上，自动驾驶汽车的故障率降低到多少才是社会公众所可以接受的？显然，社会信心不足对自动驾驶产业而言是致命的，市场机制本身已无力调整社会心理的负担，适当的行政手段就不仅仅为了保护更为普遍的公共利益，而且通过改变风险事实，进而改变对风险的一系列价值判断。自动驾驶汽车的准入制度可以通过提高自动驾驶技术市场化的门槛来从整体上提升自动驾驶汽车的安全性，避免社会公众承受过于巨大的潜在福利损失，从而反向提升社会公众对自动驾驶技术市场化的信心，进而促进产业发展。
2. 事前准入制度具备独立的规制价值
基于前述市场机制不能减轻自动驾驶技术风险的矛盾，法律制度有必要从传统的通过法律责任体系调整的间接控制过度到以行政规制为代表的直接性控制。由于自动驾驶汽车的很多具体的技术性问题需要等到大规模使用之后才能得知，行政机关往往很难做出准确的事前判断；特别是事前控制手段将更多地对个人自由形成限制，因此容易引发在这个领域对事前准入制度的必要性的质疑。故而，论证的焦点可以聚焦于事前准入制度在防范自动驾驶技术风险方面将具备怎样的独立价值。
风险预防要求决策者对自动驾驶技术所引发的风险保持必要的警惕。“我们需要制定和论证新政策（法律、法规……）以规范各种新情况。有时，我们可以预见技术的使用将产生明显的不可取的后果，尽可能多的是，我们需要预见这些后果并制定政策，最大限度地减少新技术的有害影响”。[10]自动驾驶汽车准入制度一方面要求规制机构利用其专业技术、信息优势以及规模优势来获取、处理和使用信息，降低社会公众的信息成本，在一定程度上解决信息不充分问题；另一方面，还通过引入最低限度的市场准入标准，明确排除不合格的自动驾驶汽车供应商和产品，以此阻却巨大的社会福利损失以及其他负外部性的发生。此外，由于自动驾驶汽车准入制度是通过各项标准来定义自动驾驶系统应该具有的特征，这些标准将倒逼设计者和制造者进行大规模的投资和研发，以提升获得准入资格的可能性。故而，准入制度还增加了市场准入和退出的成本，间接提升了法律实施的水平。[11]
（二）预防和应对自动驾驶技术的不确定性挑战
“我们无法真正预测未来，因为科技发展并不会带来确定的结果”[12]。我国《新一代人工智能发展规划》明确提出：“人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律和社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远的影响。在大力发展人工智能的同时，必须高度重视可能带来的安全风险挑战，加强前期预防与约束引导，最大限度降低风险，确保人工智能安全、可靠、可控发展”。[13]
1. 软硬件系统及平台的功能发挥面临不确定性挑战
在硬件方面，自动驾驶汽车依赖于高精度的数码相机、摄像头、激光雷达、毫米波雷达等不同种类的车载传感器回传的数据流来“听”和“看”，而车辆识别地理位置则是通过卫星定位系统和高清存储数字地图。客观上讲，经过几十年飞速发展，传感器套件的质量和价格已经基本可以满足自动驾驶的需要，然而即便如此，一些关键性组件的功能发挥仍面临极大的不确定性。
在软件方面，自动驾驶汽车的操作系统包含数以万计的代码。代码的数量之大，以至于任何熟练的程序员也无法精准检索到其中的潜在漏洞（Bug），只能依赖于永无休止的“补丁”程序。而“打补丁”的过程也是多种修改、添加程序的集合，修改之后的操作系统必然产生新的不确定隐患。
在系统平台方面，传感器平台、计算平台和控制平台构成软硬件结合的开放型系统形态。每一个硬件都需要配备专门的软件驱动程序，以使该硬件与操作系统上的其它部分相互连接。这些硬件及其驱动程序都有可能引发系统崩溃。
在车联网通信系统方面，存在一个云端将分布于各地的自动驾驶汽车实体连接起来。这种大数据的交互大大增加了行为的复杂性和归因的不可预见性。
2. 恶意攻击在自动驾驶系统安全方面带来不确定性挑战
当代码行数达到数以万计的时候，即使编写无误的程序也会产生崩溃的概率，更何况遭遇黑客攻击、病毒侵袭这类恶性事件，更是会威胁到数据安全。目前，针对自动驾驶汽车攻击的方法五花八门，渗透到自动驾驶系统的每个层次，包括传感器、操作系统、控制系统、车联网通信系统等。[14]
3. 渐进式发展进路所推崇的“人车切换”面临不确定性挑战
至少在目前，大多数国家的自动驾驶发展均遵循循序渐进的思路，即自动驾驶程序在难以驾驭危机的时刻，会通过“切换”程序将驾驶权交还给人工操作[15]，然后，有关法律规制就可以在原来的框架下进行。比如，全球第一个许可自动驾驶汽车上路测试的美国内华达州，最初就曾经要求在测试时至少有两人在车内，并且其中至少有一人持有驾照。[16]德国在2017年修订《道路交通安全法》的时候，虽然允许驾驶员有权在完全自动驾驶期间不亲自进行驾驶操作，但写入了应当承担相应的警觉义务和接管义务的条款。[17] 不过有关研究指出，这种从部分自动化到全自动化的阶段式演进路线在人车切换之时存在高度的不确定性。这不仅因为上述难以驾驭的危急时刻往往猝不及防，而且在于“自主智能代理”会削弱人类的责任感，引发一种被称之为“责任分散”的不确定性挑战。故而“关于‘切换’问题，越来越多的研究人员就一个观点达成了一致——自动驾驶在紧急情况下返回人类驾驶的问题也许根本无法解决”[18]。
4. 机器自主学习能力的不断提升将进一步加剧不确定性挑战
智能是人类社会本质的产物。事实上，人类的驾驶一向面临着不确定性的世界，人类正是通过智能来应对驾驶中的不确定性的。认识的不确定性，必然引发对不确定性人工智能的研究。“人工智能学科发展了很多基于图灵机模型的形式化推理方法，通过模拟人在解决确定性问题时的机械步骤来解决具体问题，后来又逐步提出了一系列模仿人类学习行为的方法，着力把人的智能用图灵机表现出来，称为机器学习”。[19]从这个意义上讲，将机器学习技术应用于自动驾驶，就是一种“拟人化”的技术运用，本质上是对人类驾驶员的智能的模拟。“当程序员有了强大计算力的设备和大量训练数据，他就可以编写一个机器学习软件，让机器根据手头的素材‘学会’自行应对处理，某些情况下，软件还可以学会应对不熟悉的新情景”。[20]这样一来，一台具有自主学习能力的自动驾驶汽车，就并非是在被动执行程序员的预先命令，而是在不断学习并不断创建新的算法规则，从而大大超出其开发者的预期。不过，这种基于自主学习而产生的识别方式具有极大的不确定性。譬如：自动驾驶汽车已经可以识别人、自行车这类简单的物体，但自动驾驶系统可能还未必能够有效识别出骑自行车的人；又比如在没有红绿灯的十字路口，自动驾驶汽车的自主学习将怎样判断交通优先权，以解决困扰多时的“四向停车难题”（Four Way Stop）呢？[21]这在当下都是极不确定的难题。再比如，在应对操作系统本身的漏洞时，漏洞不仅可以由人类程序员进行修补，甚至也可以由某些具备自主学习和修正能力的自动驾驶汽车自身进行修改，这将引发严重的不确定。
（三）寻求自动驾驶技术在道德伦理上的正当性
不论科技界在对待人工智能的态度上存在怎样的分歧，“从哲学和政治学的角度而言，以人类为中心的计算更契合我们对世界的理解”。[22]“以人为本”是自动驾驶系统内在的正当性要求。自动驾驶汽车与其他的人工智能一样，最初只是一种被灌输了程序员为达到特定目的而编写的代码的物体，但由于迄今为止的自动驾驶系统都毫无悬念地被输入了人类的知识、建模和算法，具有自主学习能力并能够模拟人的驾驶智慧、驾驶行为，因此，自动驾驶系统就大大超越了以往没有灵性的机器，进而形成人机共生的驾驶环境，其在给我们带来无尽欣喜与期望的同时，也逐渐挑战着我们既有的法律、伦理与秩序。自动驾驶的发展并不能以技术中立为由来回避他的价值偏好、商业利益以及社会风险。正如我国《新一代人工智能发展规划》所要求的那样，应当将“人在回路”（Human in the loop）作为研究有关混合增强智能的限定性条件。
“当新的问题产生，公平和正义会指引人们的思维找到解决方案，而当人们仔细审视这些解决方案，就会发现它们是和平衡与秩序相一致的”[23]。为此，我们可以用“冲击——回应”式（Impact-response Model）的分析思路来分析有关自动驾驶带来的新挑战，继而论证以准入为代表的规制手段应当作出的回应性变迁。[24]
（一）确保回应了人机共生后的法权关系改变
“本质上讲，自主驾驶就是自动驾驶汽车在任意时刻对路权的检测、请求、响应，多车交互就是车群在任意时刻对路权的竞争、放弃和占有等协同的过程”。[25]因此，人与自动驾驶设备之间将不再是简单的“主体与客体”的关系，而是伴随着各种情景化和智慧化的互动，人机共生、“人在回路”是自动驾驶的常态。“这时候我们就需要在人机混合的‘系统社会’中制定规范”。[26]
1. 回应准入对象的结构性变革
在传统意义上，对人类驾驶的规制毫无例外地坚持了主客体的二分法。在准入制度的设计上，就表现为人和物的分别准入，即分别对驾驶人和车辆实施准入。在人车分离的模式下，上述准入虽然种类繁多，但各自发挥有效功能，并未产生太多的问题。当机动车辆能够模仿人类自主驾驶之后，准入的对象将发生结构性改变：即自动驾驶汽车成为一个“行为着的客体”——不仅机动车驾驶人准入制度的存废成为一个可资争议的话题，而且机动车车辆准入的内容也将发生改变。譬如，在人类司机的时代，道路上需要通过设置包括信号灯、在内的各类实体标志来规范人类驾驶行为，而对于车辆本身却并没有这类要求。在自动驾驶环境下，道路上的实体标志将被高清记忆地图中的虚拟“标记”所替代，传统上针对驾驶人的行为规范将被变更为针对自动驾驶车辆的“行为规范”，这势必要求在准入标准上予以体现。当然，在自动驾驶的初期，如果人类还存在接管车辆的必要性时，对机动车驾驶人的准入可能仍属必要，因为这并未从根本上背离人车二分的逻辑结构。
更进一步讲，准入对象的变化可能也预示着监管体制的改变。在人车二分的情况下，对机动车驾驶的管理是由不同的行政部门分别进行的，彼此之间的切分相对清晰。然而，当机器与人类之间形成一个紧密的反馈闭环，人类用户被整合进自动驾驶系统之后，这样的切分必然遭遇模糊化的困境，准入的整合也就成为必由的选择。
2. 回应权利间平衡状态的竞争性瓦解
人类多年来通过反复调适形成的权利间平衡状态正在因嵌入数字化、智能化要素而发生了竞争性瓦解。在自动驾驶车辆使用过程中，人类的生命权、自由权和以信息为载体的人格权之间始终面临着竞争性关系，这必然矛盾地使得行政规制在未来得以进一步延伸。人们在警惕“利维坦”的同时又亲手打开了权力滥用的“潘多拉盒子”。棘手的是，有关应对方案除了在准入标准中加入非必要数据采集禁止、无关联使用禁止等行为条件以外，是不能简单地表述为禁止采集、限制采集抑或附加更为决绝的算法义务的。这是因为，无人驾驶系统和所采集的数据之间具备某种程度的良性循环——“喂养”的数据越多，软件的性能就越好，从而推动系统越发积极地采集数据。
3. 回应权利义务分配现状的颠覆性改写
自动驾驶技术的植入可能改写现有的权利义务关系。例如，在人类驾驶的环境下，为了确保驾驶安全，往往通过单一限速的方式限制人类驾驶行为。即对于任一特定的路段，规制机关会根据道路的硬件状况、车流量的大小、行人的守法程度来提前限定一个最高限速，进而形成一种相对稳定且清晰的权利义务分配。这种针对人类驾驶人行为的权利义务分配实际上隐含在驾驶人资格取得的准入制度中——申请人通过学习交规、通过驾考而取得驾驶资格，即先行认可了这种权利义务的分配。而在实际驾驶行为中，超速行驶也就面临确定的法律制裁。当自动驾驶汽车全面普及以后，不仅上述对驾驶人的权利义务分配转移到人机共生的自动驾驶系统上来，而且上述人类驾驶时代的单一限速要求有可能会被群车交互和协同反馈下的灵活要求所取代。既有的“超速——受罚”的权利义务分配现状可能因此发生颠覆，甚至于根本上就不需要对超速的行为进行规范。在这种情况下，有关自动驾驶汽车的准入标准也将随之发生调整，此时如果再按照既有的以人类驾驶员为核心的规制方式，而强制规定自动驾驶汽车应当附设不得超速的算法的话，就有可能被解释为是一种过度规制。
4. 回应新型法权关系的保护性诉求
准入制度也应当考虑为智能系统的可能的权利创设规范。比如，德国联邦运输和数字基础设施部2017年发布的《自动化和互联化车辆交通伦理规则》明令禁止自动驾驶汽车在面临“电车难题”时进行价值权衡，“这就意味着刑法在违法性阶段附加给设计制造者一项义务，即不能为了自动汽车的使用者，而在车辆上设计牺牲第三人生命的程序”。[27]从某种程度上讲，禁止就“电车难题”进行价值权衡的做法实际上回避了将有关开展价值决策的权利义务分配及其背后的“自然法则上的人类形象”转换成自动驾驶系统的决策程序，而是通过禁止价值选择的指令将这一难题转变成为要求自动驾驶汽车的设计者和生产者提供更为可靠的自动驾驶设备，进而确证了人类“免受自动化决策的权利”。无独有偶，自动驾驶技术引发的对有关数据权益的争论，也需要在自动驾驶汽车的准入制度中得到体现，以充分回应这些新型法权关系的保护性诉求。
（二）确保回应了车辆事故中民事责任的分配
准入制度虽然是一种事前的行政规制手段，但准入制度的法律效果却通常作用于事后的法律后果承担。一个相对简单的方面在于准入制度与公法责任的关系——“行政许可可以通过加强威慑作用来提高法律的实施水平”，[28]违反准入制度必然招致行政制裁，甚至有可能引发刑事判断；[29]而另一个相对复杂的方面则在于准入制度与私法责任（主要是侵权责任）的关系。打通准入与民事责任的“任督二脉”，在于肯定准入制度一定程度上决定民事责任的承担方式，使得事前规制与事后规制相结合，公法规制与私法规制相结合。
既然准入制度通过准入标准来具体实施，因此，民事责任的承担就会与是否满足一定的准入标准结合起来。未经批准而不满足准入标准的自动驾驶汽车致人损害当然应当承担严格责任，但如果在满足准入标准的情况下，民事责任承担方式的设计可能就会与准入标准的充盈程度及准入标准的达成难度正向相关。申言之，如果准入标准相对充盈和明确，可预见性强，则选择适用传统产品责任的情形就比较容易让人接受，随后的强制责任保险也将易于分担交易的成本而不会为生产者、设计者乃至保险者附设过重的不确定性成本。反之，如果准入标准不确定性较强，达成有关标准不仅仅需要投入极大的科学理性判断、而且需要进行复杂繁琐的民主议程和价值判断的时候，由于有关标准的获得在极大程度上体现了社会公众对自动驾驶汽车潜在风险的普遍接受程度，故而选择创设一种无过错补偿计划的阻力就会相对小许多。[30]当然，即使创设了豁免规定，也需要有其他的更为严格的机制来分担交通事故的实际损害。
（三）确保回应了创新驱动下产业发展的诉求
准入制度的缺点已被反复论及。准入制度对所有申请准入的申请人的条件都进行逐一审查，不得不负担极高的行政成本，加之正式准入前的任何延误又可能带来商业机会的损失，因此准入制度之于创新驱动而言，代价显而易见。更有甚者，如果准入制度被不适当地运用于反竞争目标，人为制造市场进入壁垒，则会更大程度上降低经济运行效率和引发更为严重的社会福利损失。由于自动驾驶汽车将引发全新的经济模式，而市场壁垒又是一种“不由已建立的企业而由新进入企业承担的生产成本”[31]，因此行业对自动驾驶准入制度滥用的隐忧是易于理解的。
从全球范围而言，目前并无自动驾驶汽车的商业准入制度，但有关自动驾驶汽车实际道路测试准入制度在价值取向、基本原则、标准设定上都与未来的商业准入存在极大的重叠性，因此可以在一定程度上将其类比商业准入来探讨与产业发展的关系。从整体来看，美国出台的自动驾驶汽车路测标准在全球范围内最为完善、也最为开放。而相比较而言，中国政府与德国政府的态度相类似，都持一种相对谨慎的态度。比如：在是否需要操作员方面，美国加利福尼亚州行政法规办公室批准了一项新规定，率先允许了没有驾驶员的完全自动驾驶汽车在公共道路上进行测试，亚利桑那州等也紧随其后；而德国、中国等其他国家均附设达到有关规定的测试人的要求。在测试车辆上，尽管目前世界各国对自动驾驶测试车辆的要求均建立在传统车辆安全标准之上的，但美国有条件地创设了对传统车辆安全标准的豁免制度。在车辆记录系统的要求上，世界各国均要求测试车辆建立独立的记录系统，并规定记录系统的设置要求和数据保存年限，但中国部分地区的测试规定还要求“具备车辆状态记录、存储及在线监控功能，能实时回传信息”。[32]在路测的前提条件上，中国对测试车辆应在封闭道路、场地等特定区域进行充分的实车测试规定了较为严苛的要求，而其他国家要求较低甚至毫无要求，或者选择采用了模拟测试的方法。[33]
对自动驾驶汽车市场化持谨慎的态度无疑值得肯定，但过于严苛的准入条件与产业发展的速度负相关。“只有通过驶入实际道路，方可获得对其研发至关重要的海量数据”，[34]美国相对宽松的准入制度不仅在操作端、而且在监管端都已经处于较为后期阶段，在减少限制的同时有效对接未来的商业准入，也极大地促进了行业的发展。从企业角度来看，在中国国内测试自动驾驶车辆的限制条件较多，而能够通过测试得到的数据信息却十分有限，投入和产出呈现出一种极大的不对等状态。
以自动驾驶汽车为代表的的人工智能是国际竞争的新焦点、经济发展的新引擎、社会建设的新机遇。准入制度在保障安全底线的同时，也会给商业带来成本，特别是在飞速迭代的智能互联网研发和商业运用领域，过度的准入将抑制创新。从应然的层面来讲，准入的成本应该与收益相当。尽管有关成本与收益的计算是一个很难量化的问题，但从回应创新驱动下产业发展诉求的角度而言，自动驾驶汽车准入制度至少应当包含控制风险和发展产业的双重目标；应当定期性对有关准入制度的正面影响和负面影响进行系统分析，并履行对国民和相关利益团体的解释义务。[35]此外，从平衡准入与产业发展的目的出发，国家的准入规制只能是宏观的原则性指引，更精细、更灵活、更体现差异化和创新趋势的规制，则需要通过行业规范来实现。[36]
自动驾驶汽车的准入应首先对自动驾驶汽车有充分的了解，并基于安全数据做出指导，进而用一套合理而透明的标准来权衡并量化自动驾驶汽车的能力。本文无能于具体技术标准的讨论，也无意于仅从表面上去描述自动驾驶汽车准入制度应当在保障数据安全、强化隐私保护、打破算法黑箱等方面的有所作为，而是尽可能从法学的角度关注这种技术革命，并从准入制度的完善这个切面做出回应。
（一）对准入标准进行修构
1. 提取人车分别规制的公因式：从技术标准与行为规范二分到技术化的行为标准
法的社会价值并不在于立法，而在于实施，通过实施法律，使社会置于规则体系的控制之下，并在一定的秩序中运行。“秩序（order）这一术语将被用来描述法律制度的形式结构，特别是在履行其调整人类事务的任务时运用一般性规则、标准和原则的法律倾向”。[37]在主客体二分的人类驾驶汽车的时代，立法通过对人和车分别附设规范，来实现法律所要求的秩序。申而言之，一方面，立法通过创设技术标准来为车辆的安全和性能度量；另一方面，更重要的是，立法者通过法律规则和法律原则对法律行为及其后果进行评价乃至谴责。比如，法律要求人类司机的驾驶行为应当是正当的。正当性原本是对人类驾驶人的行为评价，当面对危险时，每个人的心理都会衡量风险与收益的关系。在日常驾驶过程中，人类司机持续地作出一连串涉及衡量生命和财产价值相关的决定。只不过，在以往的社会生活规范中，立法者通过对法律行为及其法律后果的谴责，在一定程度上替代了对利益权衡的道德审判。而在人机共生的自动驾驶情景中，自动汽车的决策来源于程序员提前设置好的程序，即算法。因此，最关键的问题并不是无人驾驶车辆是否有道德，而是预先设置的车祸处理算法的伦理和逻辑是怎样的。
为了解决因自动驾驶汽车人车共生而引发的正当性难题，人们普遍认为自动驾驶汽车的算法应该满足于公开和可得解释的要求。比如，世界科学知识与技术伦理委员会发布了关于机器人伦理的初步草案报告，提出应当在机器人及机器人技术的伦理与法律监管中确立可追溯性，保证机器人的行为及决策处于全程监管之下。2016年，英国下议院科学和技术委员会发布《机器人与人工智能》，特别强调决策系统透明化对于人工智能安全和管控的作用。如此一来，人类的监管机构不仅能够理解自动驾驶汽车的思考决策过程，使算法不再是无法被问责的“黑箱”；而且能够在特定的调查和法律行动中发挥其本应有的作用。
其实，上述规制措施并未跳脱为人类行为设定规范的窠臼，只不过将原先为人类驾驶员设置的行为规范转变为了对自动驾驶汽车设计者和生产者设定的行为规范，即将透明、公开、程序合法、说明理由等行为义务赋予自动驾驶汽车的研发机构。法治的公正应该考虑技术变革所带来的新问题，这意味着“智能互联网时代的法律规制，需要……更多地采用技术主义路线和策略，把法律规制转化成与之对应的法律技术化规制”。[38]具体到自动驾驶汽车准入方面，有必要提取过去分别对驾驶人和车辆进行规制的公因式，即把原来人车二分的技术标准和行为规范转换成为合二为一的技术化的行为标准。在具体操作方面，由于代码而非算法才是自动驾驶汽车决策程序的原子形态。人类通过编写代码，赋予自动驾驶汽车活的灵魂。褪去算法的面纱，代码才是人机共生情景下既规制“人”、又规制“机”的公因式。“代码就是法律”[39]，通过加强立法者与代码作者的合作，主动进行法律编码化的研究和实践，辅之以构建技术公平行业规范，“对当前互联网代码的可变和空白之处作出选择”[40]，通过构建“以代码为基础的论证和决策的计算模型”，以代码化的行为标准方式主动保障算法正义。此时，因为“这些代码具有自我执行的属性”，故而“规则创制、规则执行和规则司法在代码这里是三位一体的”。[41]
2. 寻求不确定性中的确定：从绝对技术标准到相对技术标准
总体而言，传统意义上的人类驾驶汽车是以硬件为主体的工业产成品。硬件系统大多可以通过力学、光学、电学乃至声学等物理评测方法评价其性能。故而，世界各国政府均通过设定技术标准的方式对传统汽车的各项硬件指标及功能指标进行准入规定，以保障其满足公共安全、人身安全和财产安全的特定要求。以我国为例，由工信部牵头，协调国家标准化管理委员会、交通运输部、公安部、质检总局（市场监管总局）、国家认证认可管理委员会制定了为数众多的汽车标准，如安全性技术标准“汽车前照灯配光性能”（GB 4599-1994）等。这类标准具备一个共同特点，就是基于实验数据和统计概率，能够获得一个大体上确定的标准值。以汽车悬架用空气弹簧气囊标准（GB/T 13061-1991）为例，该标准要求“5.4 气囊24h的内压降不得超过0.02Mpa；5.5气囊的破坏内压不得低于2.00Mpa；5.6 气囊帘布层间的粘附强度不得低于6kN/m；5.7 气囊的台架寿命不得低于300万次”等。我们不妨称之为绝对标准。相比之下，自动驾驶汽车则要有一套满足安全要求的软硬件标准，对自动驾驶汽车的软件和计算能力，以及硬件传感器的数量和类型做出规定。与人类驾驶汽车相同的是，自动驾驶汽车的硬件标准是可以通过绝对标准予以规范的，而自动驾驶汽车的软件标准，特别是人机共生和自主学习而产生的功能性标准则是无法用绝对值表示的。因此，设计自动驾驶汽车的准入标准无疑是复杂的。
为了解决标准不确定性问题，可以引用相对标准的概念。即提供一个参照物，以确定自动驾驶汽车性能与该参照物性能的比值。比如，从自动驾驶汽车的市场化来看，自动驾驶汽车始终存在着与人类驾驶汽车的安全性竞争。而人机共生的自动驾驶汽车的可靠性可以进行量化，标准就是它在毫无人工干预的情况下可以安全运行的里程数。为此，我们不妨设计“人类安全系数”这个相对值指标。一辆自动驾驶汽车如果单独无事故行使的里程数两倍于人类的平均水平，则可以称之为“人类安全系数2.0”，以此类推。[42]再比如，目前各国对于自动驾驶汽车的准入基本上是采用“一刀切”的方法，然而，自动驾驶汽车却因用途不同（比如客车与货车，乘用与商用）、种类不同、大小不同、作用的道路情况不同（比如高速公路还是复杂的城市道路）以及自动化和智能化的程度不同，可以为不同层次的自动驾驶汽车分别设置准入，避免“千车一面”，最终阻碍自动驾驶汽车的商业化。
（二）确立形成准入标准的一般性规则
与其他领域的准入标准一样，自动驾驶准入标准涉及科学的判断与价值的衡量，故而，在准入标准的形成上，需要通过制度设计充分融合理性精神与民主考量。
1.公众参与不足以消除社会固有偏见
自动驾驶汽车所影响的公共利益和公共福祉具有不确定性，规制机关的技术理性和专业知识均决定了其无法通过“一致性”的技术认定加以判断。在这种情况下，有关自动驾驶汽车风险的决策实际上就是社会公众选择何种安全程度的自动驾驶汽车的决策。“为了追求特定目标的实现，行政机关事实上需要拥有并行使‘管理权’,而不仅仅是‘执行权’。随着‘积极行政’的兴起，行政机关为了回应社会需求而制定相关政策的情形也越来越多见，行政过程的政治特性也随之变得日益明显”。[43]通过公众参与、利益代表等“制度化过程”在准入标准取得方式上注入更多的民主化要素，使得标准的制定过程和制定结果具有更强的合法性。
不过，一个越来越为人们所公认的现象及其困境就在于，社会公众在判断影响自己健康、环境等潜在危险的问题上常常被“偏执和人为忽略”的综合症所困扰。大量的资源被消耗在并不棘手或者凭空臆测的危险上，而巨大且证据确凿的风险却没有被得到应有的关注。[44]普通公众由于缺少必要的知识，匮乏完整的信息，且过度依赖不理性的直觉，通常得不到理性的风险判断和认知。特别是在对待自动驾驶汽车这类本身极不确定、又直接关乎财产乃至生命安全的情景时，由于“有关生命和人身的风险是内生于社会甚至内生于生命本身的”，普通公众对此难以作出客观的判断，也就无法进行思虑成熟的全面评估，这不仅无助于共识性的自动驾驶汽车准入标准的生成，而且可能因此阻滞整个产业的创新发展。
2. 专家理性不足以化解不确定性难题
公众参与的劣势恰是专家理性的优势。专家拥有足够的专业知识，掌握相对完整的信息，且与公众相比更为理性，有能力通过一套科学的方法得出更为可靠的判断。主张专家在自动驾驶汽车准入标准制定过程中发挥比较优势并不为过，但“某个人知道所有相关的事实，而且他有可能根据这种关于特定事实的知识而建构出一种可欲的社会秩序是一个统而笼之的幻想”。[45]自动驾驶汽车的风险本身就是在“试图控制他们的现代化进程中产生的”[46]，他们与科技的发展如影随形，人们无法通过科学理性和知识储备来控制这样的风险，甚至出现知识越多、控制越强、不确定性风险就越大的悖论。更有甚者，由于规制机关既必须维持与有关产业的合作关系，又醉心于最大化对有关行业的行政控制，且实际难以维系超然中立的规制地位，使得行政政策往往会产生某种“系统性偏见”[47]。
3.调和达成准入标准的科学方式和民主程序
自动驾驶汽车准入标准应当经过科学方式和民主程序共同达成。一方面，既要考虑科学，以使得在制定准入标准时尽可能掌握更多的信息，并根据这些信息作出尽可能理性的专业判断；另一方面，又要考虑民主，把准入标准的制定与整体的社会偏好以及社会对待自动驾驶技术的信任程度结合起来，以夯实准入标准的合法性基础。因此，有学者指出，走向“审议式民主”才是融合科学与民主的方法论。[48]
作为一种理性决策方式的审议式民主，必须通过制度的构建来实现其功能的有效发挥。一方面，确立一系列有关自动驾驶风险评估的实体和程序要求,提高风险评估的客观性和中立性,以要求规制机关使用科学工具开展决策并保证决策理性;另一方面,针对公众占有信息的严重不足，必须首先以信息公开增强公众的科学理性。通过主动公开制度，充盈社会普通公众对自动驾驶汽车有关知识的认知，跨越因信息严重不对称而产生的“数字鸿沟”,进而通过利益代表、公众参与等程序建构打通信息交流的有效管道，促进专家意见的民主客观化，弥合公众与专家之间价值分歧，补足准入标准的民主赤字，体现准入标准的公共性，并进而使其获得合法性和认同。
（三）谦抑选用不同强度的准入工具
奥格斯在其著作《规制：法律形式与经济学理论》中特别强调区分“批准”与“登记”或“认证”制度。奥格斯认为，“在理论上，认证是信息规制的形式”。[49]虽然在我国《行政许可法》的话语体系中，区分“许可”、“登记”和“认证”并不容易，[50]但区分的关键标准却是相对明确的，即在于“从事没有经过‘认证’的活动是否是合法的”。[51]换而言之，“认证”相比较于“批准”而言，强度弱、灵活性高，保留给申请人的自由也就更多。在自动驾驶汽车准入方面，可以谦抑地选用认证和批准的准入工具，从而实现放松管制的要求。比如，根据美国《国家交通与机动车安全法》（National Traffic and Motor Vehicle Safety ACT），传统的人类驾驶的汽车就已经开始实行自我认证制度，即由汽车制造厂商自行认证自己生产的汽车是否符合国家标准，国家有权机关仅保留复查和抽查的权利。在自动驾驶汽车的准入方面，未来可以采用一种自我认证和批准程序相结合的机制，即对于既有的机动车安全标准，由自动驾驶汽车厂商进行自我认证；对于未被机动车安全标准涵盖的自动驾驶汽车功能，则由国家行政机构或者经授权的第三方进行批准，以避免因监管过度而阻碍产业发展创新。[52]
（四）对准入制度的刚性约束予以有限豁免
准入制度具有极高的合规成本。事实上，在很多情况下，囿于技术条件的限制，在特定的历史时期，即使耗资巨大，也存在无法满足准入标准的情形，现阶段的自动驾驶汽车就存在这样的困惑——虽然自动驾驶汽车未来的商业化将进一步验证摩尔定律的正确[53]，但至少在目前，他们还不得不是那些顶着几个数码镜头、若干传感器雷达的“机器怪兽”。这样的古怪物理构造注定了这些自动驾驶汽车不得不突破经典力学、结构动力学、空气动力学、物理声学等定律的约束，一定程度上僭越法律为人类驾驶的汽车框定的基本安全准则和噪音扰动要求。
如果我们迷信强制性指令标准这类指令性工具，而对信息披露这类市场化的工具不够重视，坚持自动驾驶汽车即使在技术发展的初级阶段，也必须遵循准入标准的刚性约束，则强制技术性标准不够灵活、不适应现实等弊病均将逐一显现，其后果是自动驾驶汽车将极有可能夭折于市场化的前夜。一个比较折中而又可行的方法是对现有标准进行豁免。[54]豁免现有标准旨在为制造商必须遵守的机动车辆安全标准的强制要求提供一定的灵活性。不过，豁免是鼓励技术创新的产物，因此豁免通常是临时性的，豁免的特殊政策不应当成为自动驾驶汽车制造商不遵守现有法律的借口，因此，被豁免的机动车一般也应仅以测试和评估为限。
也许在不久的将来，自动驾驶就将不再是“让子弹飞一会儿”的监管空白之地。在法律上确认自动驾驶的合法地位以及维持一定的法律确定性和统一性是推进自动驾驶汽车产业稳健发展的必要条件。准入制度只不过是自动驾驶规制的一个环节，但仅这个环节法律制度设计就需要与事中、事后监管手段和有关法律责任的分配结合起来。就自动驾驶汽车的规制而言，还有诸如安全监管、责任、伦理、隐私与数据保护等很多问题需要研究，对自动驾驶汽车的规制，也将注定是一个多主体合力、综合施策的过程。最重要的是，我们要时刻谨记规制的强度和技术，因为“风险……是一种控制与缺乏控制的矛盾状态”。[55]
向上滑动阅览
基金项目：2017年司法部国家法治与法学理论研究项目“技术市场规制中的政府权责及其边界研究”（编号17SFB3015）。首都师范大学政法学院彭良玉同学对本文写作亦有贡献，谨致谢忱。
[1] 自动驾驶汽车（Intelligent Cars）是指具备自动驾驶功能的汽车，即车辆具备在不需要驾驶员执行物理性驾驶操作的情况下，能够对车辆行驶任务进行指导与决策，并代替驾驶员操控行为使车辆完成安全行驶的功能。只具有机动车辅助类自动化功能的汽车不属于本文所称的自动驾驶汽车。
[2] “数字鸿沟”（digital divide），是指不同社会经济水平的个人、家庭、企业和地区在接触信息通讯技术和利用因特网进行活动的机会的差距。参见[美]阿尔夫·托夫勒 著：《权力的转移》，黄锦桂译，中信出版社2018年版，第456页。
[3] 中国信息通信研究院：《中国数字经济发展白皮书（2017年）》，中国信息通信研究院网站，http://www.catr.cn/kxyj/qwfb/bps/201804/P020170713408029202449.pdf.（最后访问时间：2018年10月1日）。
[4] “电车难题”是伦理学领域最为知名的思想实验之一，由哲学家菲利帕.福特（Philippa Foot）于1967年发表的名为《堕胎问题和教条双重影响》的论文中首先提出来，并用来批判伦理哲学中的功利主义理论。See Foot·P. "The Problem of Abortion and the Doctrine of the Double Effect".Oxford Reviews,Vol.5,No.1,1967,pp5-15.
[5] 参见[英]安东尼·奥格斯 著：《规制：法律形式与经济学理论》，骆梅英 译，苏苗罕 校，中国人民大学出版社2008年版，第24页。
[6] 参见本文第二部分的论述。
[7] [美]胡迪·利普森，梅尔芭·库曼 著：《无人驾驶》，林露茵，金阳 译，文汇出版社2017年版，第121页。
[8] [德]乌尔里希·贝克 著：《世界风险社会》，吴英姿、孙淑梅 译，南京大学出版社2004年版，第67页。
[9] 赵鹏 著：《风险社会的行政法回应》，中国政法大学出版社2018年版，第57-65页。
[10] [荷]尤瑞恩·范登·霍文、[澳]约翰·维克特 主编：《信息技术与道德哲学》，赵迎欢、宋吉鑫、张勤 译，科学出版社2017年版，第223页。
[11] 张卿：《论行政许可的优化使用——从法经济学角度进行分析》，载《行政法学研究》2008年第4期。
[12] [以]尤瓦尔·赫拉利 著：《未来简史：从智人到神人》，林俊宏 译，中信出版社2017年版第357页。
[13] 国务院《关于印发<新一代人工智能发展规划>的通知》（国发〔2017〕35号），中国政府网，http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm.（最后访问时间：2018年10月1日）。
[14] 参见刘少山、唐杰、吴双、李力耕 著：《第一本无人驾驶技术书》，电子工业出版社2017年版，第160页。
[15] 比如，关于自动驾驶技术分为多少个等级，业界采用较多的为美国汽车工程师协会（SAE）和美国高速公路管理局（NHTSA）推出的分类标准。按照SAE的标准，自动驾驶汽车视智能化、自动化程度水平分为6个等级：无自动化（L0）、驾驶支援（L1）、部分自动化（L2）、有条件自动化（L3）、高度自动化（L4）和完全自动化（L5），而人机切换实际上是L3-L4阶段的可能情形，这实际上反映了一种渐进式的产业发展进路。参见腾讯研究院等 著：《人工智能》，中国人民大学出版社2017年版，第78页。
[16] See Dorothy J. Glancy," Privacy in Autonomous Vehicles", Santa Clara L. Rev.Vol.52,2012,pp1171,1185.
[17] 参见张韬略、蒋瑶瑶：《德国智能汽车立法及<道路交通法>修订之评价》，载《德国研究》2017年第3期。
[18] 参见[美]约翰·马尔科夫 著：《人工智能简史》，郭雪译，浙江人民出版社2017年版，第59，163，190页。
[19] 李德毅、杜鹢 著：《不确定性人工智能（第2版）》，国防工业出版社2014年版，第287页。
[20] [美]胡迪·利普森，梅尔芭·库曼 著：《无人驾驶》，林露茵，金阳 译，文汇出版社2017年版，第96页。
[21] 参见[美]约翰·马尔科夫 著：《人工智能简史》，郭雪 译，浙江人民出版社2017年版，第54,56页。
[22] [美]约翰·马尔科夫 著：《人工智能简史》，郭雪 译，浙江人民出版社2017年版，第180页。
[23]（美）本杰明·N.卡多佐 著：《法律的成长》，李红勃、李璐怡 译，北京大学出版社2014年版，代译序，第13页。
[24] 关于“冲击——回应”模式，应该首先是由美国哈佛大学著名中国问题研究专家费正清（John K. Fairbank）教授在解释中国的现代化进程时提出来的。参见[美]费正清 著：《美国与中国》（第四版），世界知识出版社1999年版，第132-161页。
[25] 李德毅、杜鷁 著：《不确定性人工智能（第2版）》，国防工业出版社2014年版，第236页。
[26] 陈钟：《人工智能与未来社会：趋势·风险·挑战》，载《探索与争鸣》2017年第10期。
[27] 参见储陈城：《自动汽车程序设计中解决“电车难题”的刑法正当性》，载《环球法律评论》2018年第3期。
[28] 张卿：《论行政许可的优化使用——从法经济学角度进行分析》，载《行政法学研究》2008年第4期。
[29] 有关论述参见陈兴良：《违反行政许可构成非法经营罪问题研究——以郭嵘分装农药案为例》，载《政治与法律》2018年第6期。
[30] 比如在传统上，美国就拒绝对疫苗适用设计缺陷的侵权责任，因为他们认为疫苗具有“不可避免的不安全性 ”。又比如，为了平衡推广预防接种所惠及绝大多数人的公共利益与少数人群承担的预防接种异常反应风险，世界上多数国家都建立了疫苗接种异常反应补偿计划，对于因疫苗接种而发生异常反应的受害者给予一定的补偿救济，以体现公平。See Daniel A. Cantor, "Striking a Balance Between Product Availability and Product Safety: Lessons from the Vaccine Act. ", American University Law Review, Vol.44,1994-1995,pp1859; C.Looker, H.Kelly, "No-Fault Compensation Following Adverse Events Attributed to Vacination": A Review of International Programmes", Bulletin of the World Health Organization, Vol.89,No.2,2011,371-378.
[31] [美]丹尼尔·F.史普博 著：《管制与市场》，余晖、何帆、钱家骏、周维富 译，格致出版社·上海三联书店·上海人民出版社2017年版，第35页。
[32] 参见《北京市自动驾驶车辆道路测试管理实施细则（试行）》》，第十条第（七）项。
[33] 如自2015年8月以来，美国亚利桑那州对自动驾驶汽车实行零监管，企业可以完全自由、开放地测试和部署自动驾驶汽车。参见腾讯研究院法律研究中心：《2018年全球自动驾驶法律政策研究报告》，第11页。
[34] 李磊：《论自动驾驶汽车监管制度的建立》，载《北京理工大学学报（社会科学版）》2018年第2期。
[35] 参见李宏舟 著：《日本规制改革问题研究：理论、内容与绩效》，中国社会科学出版社2016年版，第75页。
[36] 参见马长山：《人工智能的社会风险及其法律规制》，载《法律科学》（西北政法大学学报）2018年第6期。
[37] [美]E·博登海默 著：《法理学：法哲学与法律方法》，邓正来 译，中国政法大学出版社2004年版第227页。
[38] 马长山：《智能互联时代的法律变革》，载《法学研究》2018年第4期。
[39] [美]劳伦斯·莱斯格 著：《代码2.0：网络空间中的法律》，李旭、沈伟伟 译，清华大学出版社2009年版，第6页。
[40] 参见[美]劳伦斯·莱斯格 著：《代码2.0：网络空间中的法律》，李旭、沈伟伟 译，清华大学出版社2009年版，第89页。
[41] 参见余盛峰：《全球信息化秩序下的法律革命》，载《环球法律评论》2013年第5期。
[42] 参见[美]胡迪·利普森，梅尔芭·库曼 著：《无人驾驶》，林露茵、金阳 译，文汇出版社2017年版，第124-127页。
[43] 王锡锌：“依法行政的合法化逻辑及其现实情景”，载《中国法学》2008年第5期。
[44] [美]凯斯·R. 孙斯坦 著：《风险与理性——安全、法律与环境》，师帅 译，中国政法大学出版社2005年版，前言。
[45] [英]哈耶克 著：《法律、立法与自由》（第一卷），邓正来、张守东、李静冰 译，中国大百科全书出版社2000年版，第11-12页。
[46] [英]安东尼·吉登斯 著：《超越左与右》，李惠斌、杨雪冬 译，社会科学文献出版社2001年版，第4页。
[47] 参见[美]理查德·B.斯图尔特 著：《美国行政法的重构》，沈岿 译，商务印书馆2002年版，第26页。
[48] 参见赵鹏 著：《风险社会的行政法回应》，中国政法大学出版社2018年版，第159页。
[49] 参见[英]安东尼·奥格斯 著：《规制：法律形式与经济学理论》，骆梅英 译，苏苗罕 校，中国人民大学出版社2008年版，第218页。
[50] 《中华人民共和国行政许可法》第12条。
[51] [英]安东尼·奥格斯 著：《规制：法律形式与经济学理论》，骆梅英 译，苏苗罕 校，中国人民大学出版社2008年版，第218页。
[52] 参见曹建峰：《自动驾驶新政系列四：自动驾驶发展呼吁创新监管手段》，腾讯研究院公众号，http://www.weixinyidu.com/n_3935299.（访问时间：2018年10月10日）。
[53] 摩尔定律指出：当计算机芯片的表现以冥次方提升增长时，芯片的价格和尺寸也会以冥次方的速度大幅降低。
[54] 比如，美国高速公路管理局作为汽车的规制机关，有权在两年期限内每年豁免2500辆汽车用于安全研究。美国国会正在制定的自动驾驶汽车法案提出了更大力度的豁免制度。原则上，用于测试或销售的汽车必须满足机动车安全标准，但如果自动驾驶汽车具有新的机动车安全特征，而现实情况下又缺乏相应的强制性安全标准时，申请人可以申请豁免。法案草案关于豁免的数量是极大的。
[55] See. Barbara Adam, Ulrich Beck , Joost Van Loon, The Risk Society and Beyond: Critical Issues for Social Theory, SAGE Pubulication,2000,p.225.
感谢作者授权
本文仅作学习交流之用
Alvaro Castagnet
往期荐读
编辑：钟柳依
欢迎点击“阅读原文”